Jij bent mijn schepper, maar ik ben je meester.
Nederlandse vertaling door Mazrim Taim
We staan op de rand van een wereldwijde intense toename
van ultramoderne kunstmatige intelligentie.
Technologie ontwikkelt zich veel sneller dan onze samenleving
ons als burgers kan beschermen.
Robots komen eraan, en zullen ons bestaan vernietigen.
Een netwerk-intelligentie houdt ons in de gaten,
weet alles van ons, en begint ons te veranderen.
Twitter is 's-werelds nummer 1 nieuwssite geworden.
Technologie is nooit goed of slecht.
Wat telt is wat we doen met technologie.
Miljoenen mensen zullen hun baan verliezen
omdat hun vaardigheden overbodig worden.
Massale werkloosheid.
Grotere ongelijkheid. Zelfs sociale onrust.
Of we nu bang moeten worden of niet,
de verandering komt, en niemand houdt die tegen.
Enorme bedragen zijn geïnvesteerd, dus is het aannemelijk
dat defensie, met hun eigen verlanglijst,
deze technologie zal gaan gebruiken.
Autonome wapensystemen kunnen een wapenwedloop inleiden
die gelijk staat aan het Nucleaire tijdperk.
We weten het antwoord. Uiteindelijk doden zij ons.
Sprongen in technologie brengen grote wonderen voort
en onvoorstelbare verschrikkingen.
Wij hebben het gemaakt, dus voorzie ik in de toekomst,
dat deze intelligentie delen van ons zal bevatten.
Ik denk dat de vraag is:
Bevat het de goede delen...
of de slechte delen?
Overlevenden noemden de oorlog "Afrekeningsdag."
Zij maakten een nieuwe nachtmerrie mee.
De oorlog tegen de machines.
We hebben dit totaal verkloot.
Hollywood heeft het publiek ingeënt
tegen deze vraag.
Het idee dat machines de wereld zullen overnemen.
Open de baaideuren, HAL.
Het spijt me, Dave.
Ik vrees dat ik moet weigeren.
HAL?
We hebben zo vaak alarm geslagen dat het publiek niet meer oplet,
omdat het voelt als science fiction.
Zelfs er nu over praten,
voelt wat raar aan, iets als,
"Oh, dit is iets uit een slechte film."
De WOPR spendeert al zijn tijd met nadenken over Wereldoorlog 3.
Maar dat is niet zo.
Het publiek raakt hierdoor verblind.
Als samenleving en als individu,
raken we steeds meer omringd door kunstmatige intelligentie.
We dragen een klein apparaat in onze handpalm
dat we gebruiken om beslissingen te nemen in ons leven,
gesteund door een stel vage algoritmes die we totaal niet begrijpen.
We staan er al versteld van dat we kunnen praten tegen onze telefoon,
en die ons goeddeels begrijpt.
Ik heb een flink aantal aktiefilms gevonden.
Vijf jaar geleden -- echt niet.
Robotica. Machines die zien en praten...
...en luisteren. Dat bestaat allemaal nu.
Deze technologie gaat onze samenleving fundamenteel veranderen.
We zien tegenwoordig zelf-rijdende auto's.
Een auto die zelfstandig rijdt kan mensenlevens verbeteren.
Ik heb meerdere familieleden verloren, waaronder mijn moeder,
mijn broer en schoonzus en hun kinderen,
bij auto-ongelukken.
Auto-ongelukken kunnen we bijna uitsluiten met automatisering.
30.000 levens enkel in de VS.
Ongeveer 1 miljoen wereldwijd per jaar.
In de gezondheidszorg tellen vroege indicatoren,
dus dat is nog een plek waar het levens kan redden.
Hier in het borstkankercentrum,
alles wat de hersens van de radioloog
doen in 2 minuten, dat doet de computer onmiddellijk.
De computer heeft 1 miljard mammogrammen bekeken,
en past deze data direkt toe op dit beeld,
dus de medische toepassing is immens.
Nog een belangrijk gebied waarin we veel ontwikkeling zien
is het begrijpen van onze genetische code
en dat gebruiken om ziektes te bepalen en persoonlijke behandeling te geven.
De belangrijkste toepassing van al deze machines
zal zijn het verlengen van onze eigen intelligentie.
We zullen onszelf slimmer kunnen maken,
en we zullen beter problemen kunnen oplossen.
We hoeven niet te verouderen. We zullen veroudering begrijpen.
We zullen het kunnen stoppen.
Er is geen grens aan wat intelligente machines kunnen doen voor de mensheid.
Hoe kan een slimmere machine geen betere machine zijn?
Het is moeilijk te zeggen wanneer ik ging denken
dat dat naïef was.
Stuart Russell, een soort god wat betreft kunstmatige intelligentie.
Hij schreef het boek dat bijna elke universiteit gebruikt.
Ik omschreef het als het best verkopende K.I.-boek.
Nu zeg ik: "Het is de meest gestolen PDF."
Kunstmatige intelligentie draait om computers slim maken,
en vanuit publiek standpunt,
wat telt als K.I. is iets dat verrassend intelligent is
vergeleken met wat wij dachten dat computers kunnen doen.
K.I. is een onderzoeksterrein voor het simuleren
van allerlei menselijke vaardigheden.
We leven in het K.I. tijdperk.
Silicon Valley kan zich richten op één groots, helder ding.
Het was sociale netwerken en sociale media de afgelopen jaren,
en het is duidelijk dat het tij gekeerd is.
Het begint met lerende machines.
Als we terugkijken op dit moment, wat was de eerste K.I.?
Het is niet sexy, en we zien het niet in films,
maar je zou kunnen stellen dat wat Google schiep,
geen zoekmachine is, maar een godheid.
Een manier voor mensen om elke gewenste vraag te stellen
en het juiste antwoord te krijgen.
De meeste mensen weten niet dat wat Google doet
eigenlijk een vorm is van kunstmatige intelligentie.
Ze gaan erheen, ze typen wat in.
Google geeft ze het antwoord.
Met elke zoekopdracht trainen we het om beter te worden.
Soms typen we een zoekopdracht en geeft het ons het antwoord
voordat je klaar bent de vraag te stellen.
Wie is de president van Kazakhstan?
Dat zegt het je.
Je hoeft niet naar de nationale website van Kazakhstan om dat te leren.
Dat kon het vroeger niet.
Dat is kunstmatige intelligentie.
Jaren van nu, als we proberen het te begrijpen, zullen we zeggen:
"Waarom zagen we het niet?"
Een treffende tegenstelling die we zien.
Google en Facebook, en anderen, zijn bedrijven gebouwd om ons,
als samenleving, gratis dingen te geven.
Het is een Faustiaanse handel.
Ze onttrekken iets van ons in ruil, maar we weten niet
welke code draait aan de andere kant en waarom.
We hebben geen idee.
Dit raakt direkt de vraag in hoeverre we deze machines kunnen vertrouwen.
Ik gebruik computers letterlijk overal voor.
Er is nu zoveel vooruitgang bij computers,
en het is zo'n groot deel van ons leven geworden.
Het is onvoorstelbaar wat een computer kan doen.
Je kan een computer gewoon meedragen.
Dat is toch geweldig?
Technologie is bedoeld om dingen makkelijker te maken
en eenvoudiger voor ons allemaal,
dus hopelijk blijft daar de focus op.
Iedereen houdt van hun computer.
Mensen beseffen niet dat ze konstant in onderhandeling zijn met machines;
of het nu gaat om de prijs van online gekochte produkten,
of dat je een bepaalde vlucht kunt boeken,
of een kamer kunt reserveren in een bepaald hotel.
Wat je meemaakt zijn machine-lerende algoritmes
die hebben bepaald dat iemand als jij
bereid is 2 cent meer te betalen en ze passen de prijs aan.
Een computer onderzoekt simultaan miljoenen mensen op subtiele patronen.
Je neemt ogenschijnlijk onschuldige digitale voetafdrukken,
zoals iemands afspeellijst op Spotify,
of wat ze hebben gekocht bij Amazon,
en gebruiken dan algoritmes om dit te vertalen
in een zeer gedetailleerd en heel accuraat persoonlijk profiel.
Er is een dossier van ons allemaal dat zo uitgebreid is
dat je kunt stellen
dat ze meer over je weten dan je eigen moeder.
De hoofdoorzaak voor de recente doorbraak in K.I.
is niet dat iemand ineens een briljant idee had,
maar dat we veel grotere data hebben
om ze mee te trainen en enorm betere computers.
De kracht is de data. Een vrachtlading data.
Data die nooit eerder bestaan heeft.
Die data hebben we nooit gehad.
We hebben technologie ontwikkeld die ons in staat stelt
grote hoeveelheden informatie te vergaren.
Denk aan een miljard mobieltjes op de planeet
met gyroscopen en versnellingsmeters en vingerafdruk-lezers.
Koppel dat aan de GPS en de foto's die ze nemen
en de tweets die je verstuurt.
Ieder van ons geeft enorme hoeveelheden data af.
Auto's rijden rond en hun camera's nemen informatie op
over de wereld rondom hen.
Satellieten die nu in omloop zijn, zo groot als een broodrooster.
Infrarood over de vegetatie op de planeet.
Boeien in de oceanen voeden de klimaatmodellen.
En de NSA, de CIA, zij vergaren informatie
over geopolitieke situaties.
De wereld zwemt tegenwoordig in deze data.
Destijds in 2012,
schatte IBM dat een gemiddelde mens
dagelijks 500 MB achterlaat aan digitale voetafdrukken.
Wil je voor één dag data bewaren die de mensheid produceert
en dat afdrukken op briefpapier,
dubbelzijdig, fontgrootte 12, en je stapelt dat op,
dan reikt dat van het aardoppervlak tot de zon, 4 keer.
En dat is elke dag.
De data zelf is niet goed of slecht.
Het gebruik telt.
We vertrouwen op het goede in de mensen
en op het beleid van die bedrijven.
Er is geen wettelijk voorschrift voor hoe ze kunnen
en zouden mogen, gebruik maken van dat soort data.
Dat is, voor mij, de kern van de vertrouwenskwestie.
Er is een wedloop gaande om machines te maken die zo slim zijn als mensen.
Google -- Zij werken aan een soort
Manhattan Project voor kunstmatige intelligentie.
Ze hebben het meeste geld. En het meeste talent.
Ze kopen K.I.-bedrijven op en robotica-bedrijven.
Mensen zien Google nog als een zoekmachine en hun e-mail provider
en veel andere zaken die we dagelijks gebruiken,
maar achter dat zoekvenster staan 10 miljoen servers.
Dat maakt Google het krachtigste computerplatform ter wereld.
Google werkt nu aan een K.I. computerplatform
dat 100 miljoen servers zal hebben.
Dus werk je met Google,
dan zie je slechts de teennagel van een reusachtig beest-in-wording.
De waarheid is, ik denk dat Google niet eens weet wat het gaat worden.
Als je de algoritmes beziet die gebruikt worden bij Google,
dan is dat hoofdzakelijk technologie uit de jaren 80.
Dat soort modellen train je door ze een 1 te tonen, een 2,
en een 3, en het leert niet wat een 1 is of wat een 2 is...
Het leert wat het verschil is tussen een 1 en een 2.
Het is enkel een berekening.
In de afgelopen 5 jaar, waarin snel vooruitgang is geboekt,
draaide alles om patroonherkenning.
Het merendeel van de ouderwetse K.I.
bestond eruit dat we onze computers vertelden
hoe een spel als schaken gespeeld werd.
Vanuit de oude zienswijze waarin je de computer vertelt
wat hij precies moet doen.
Dit is "Jeopardy".
"De IBM Challenge".
Niemand had destijds gedacht dat een machine
de precisie en betrouwbaarheid kon hebben
en de snelheid om "Jeopardy" goed genoeg te spelen tegen de beste mensen.
Laten we "Jeopardy" spelen.
Zes-letter woord voor het ijzeren ding op de hoef van een paard (....)
Watson. - Wat is "schoen"?
Je hebt gelijk. Je mag kiezen.
Literarair karakter APB voor $800.
Antwoord -- de Daily Double.
Watson verkreeg zijn kennis door het lezen van Wikipedia
en 200 miljoen bladzijden met gewone-taal documenten.
Je kunt niet per regel programmeren hoe de wereld werkt.
De machine moet leren door te lezen.
Nu komen we bij Watson.
"Wie is Bram Stoker?"
En de weddenschap?
Hallo! $17.973
$41.413
En een tweedaags totaal van $77--
Watson is getraind met enorme hoeveelheden tekst,
maar het is niet zo dat het begrijpt wat het zegt.
Het weet niet dat water dingen nat maakt door aanraking.
Het ziet gedragingen in de wereld niet zoals jij en ik.
Veel taal-K.I. tegenwoordig werkt niet op
logische modellen van hoe de wereld werkt.
Het kijkt eerder naar hoe de wereld lijkt te zijn,
gebaseerd op andere woorden.
David Ferrucci ontwikkelde IBM's Watson,
en iemand vroeg hem: "Kan Watson denken?"
En hij zei: "Kan een duikboot zwemmen?"
Wat hij bedoelde was, toen duikboten ontwikkeld zijn,
leende men basisprincipes van zwemmen van vissen.
Maar een duikboot zwemt verder en sneller dan vissen
en kan heel veel meenemen. Het zwemt beter dan vissen.
Watson die het spel "Jeopardy" won gaat de geschiedenis van K.I. in
als bepalende mijlpaal.
We zijn verrast wanneer de machine het zo goed doet.
Ik ben nog meer verrast wanneer de computer mensen verslaat bij dingen
waar mensen van nature goed in zijn.
Dat is hoe we vooruitgang boeken.
In de beginfase van het Google Brein projekt,
gaf ik het team een heel simpele opdracht,
die luidde: "Bouw het grootst mogelijke neurale netwerk,
met 1000 computers."
Een neuraal net is bijna een simulatie van hoe het brein werkt.
Waarschijnlijkheid in hoge mate, maar met contextuele relevantie.
In het brein heb je lange neuronen
gekoppeld aan duizenden andere neuronen,
en je hebt verbindingen die gevormd worden
op basis van wat het brein moet doen.
Als een baby iets probeert en slaagt, is er een beloning,
en de verbinding die succes had wordt versterkt.
Als hij faalt met iets, wordt de verbinding verzwakt.
Mettertijd richt het brein zich op
goed worden in de omgeving waarin het zich bevindt.
Het komt aan op machines zelf laten leren.
Dit heet "diep leren," en "diep leren"
en "neuraal netwerk" betekenen nagenoeg hetzelfde.
Diep leren is een totaal andere aanpak
waarbij de computer leert zoals een kleuter.
Door gewoon veel data te krijgen en uiteindelijk dingen te ontdekken.
De computer wordt slimmer en slimmer
naarmate het meer ervaring krijgt.
Stel je nu een neuraal network voor, van bijvoorbeeld 1000 computers.
Het ontwaakt zonder kennis.
We laten het een week lang YouTube kijken.
Charlie! Dat deed zeer!
Na een week lang YouTube kijken, wat zou het leren?
Onze hypothese was dat het zou leren veel voorkomende objecten te herkennen.
We weten dat menselijke gezichten vaak voorkomen in video's,
dus keken we, en jawel,
er was een neuron dat had geleerd menselijke gezichten te herkennen.
Laat Britney met rust!
Wat zien we ook vaak in video's?
We keken, en tot onze verbazing
was er een neuron dat had geleerd katten te herkennen.
Ik herinner me nog steeds de herkenning.
"Wow, dat is een kat. Okay, cool. Geweldig."
Het is allemaal vrij onschadelijk wanneer je denkt aan de toekomst.
Het lijkt onschuldig en mooi.
Maar we maken cognitieve systemen die verder en sneller gaan dan ons
en meer kunnen dragen, en ze zullen niet warm en pluizig zijn.
Ik denk dat over 3 tot 5 jaar, je een computersysteem ziet
dat in staat is autonoom te leren
hoe te begrijpen, hoe begrip te kweken,
op dezelfde wijze waarop de menselijke geest werkt.
Wat die lunch ook was, lekker was het absoluut.
Gewoon wat van Robby's namaak.
Hij is ook je kok?
Maakt zelfs de grondstoffen.
Kom eens hier, Robby.
Ik zal laten zien hoe dit werkt.
Men introduceert een voedselmonster
via deze uitsparing.
Hieronder zit een klein chemisch lab ingebouwd,
waar hij het analyseert.
Later kan hij identieke moleculen maken in elke vorm of hoeveelheid.
De droom van elke huisvrouw.
Ontmoet Baxter,
revolutionair nieuw type robot, met gezond verstand.
Baxter...
Baxter is een goed voorbeeld
van het soort concurrentie dat we zien van machines.
Baxter kan vrijwel alles wat wij met onze handen kunnen.
Baxter kost ongeveer wat een minimum-loner verdient in een jaar.
Maar Baxter neemt niet de plaats in van één minimum-loner...
Hij neemt de plaats in van 3,
omdat hij nooit moe wordt, en nooit pauze neemt.
Dat is waarschijnlijk het eerste wat we gaan zien.
Opheffing van banen.
Het zal vlugger gedaan worden, sneller, goedkoper door machines.
Onze mogelijkheid om zelfs maar bij te blijven, is enorm beperkt
vergeleken met de machines die we bouwen.
We hebben nu bijvoorbeeld bewegingen als Uber en Lyft.
Ze maken transport goedkoper en democratiseren transport,
wat goed is.
De volgende stap is dat alles wordt vervangen door bestuurderloze auto's.
Dan zullen alle Uber en Lyft chauffeurs iets anders moeten gaan doen.
Er zijn 4 miljoen beroepschauffeurs in de VS.
Die zijn binnenkort werkloos.
7 miljoen mensen voeren gegevens in.
Die mensen worden werkloos.
Een baan gaat toch niet enkel om geld?
Op biologisch nivo dient het een doel.
Het is bepalend.
Wanneer banen verdwijnen in elke willekeurige samenleving,
duurt het niet lang voordat geweld losbarst.
Ons wacht een grote kloof tussen rijk en arm,
want dat is wat automatisering en K.I. zullen uitlokken.
Een grotere kloof tussen wie heeft en wie niet heeft.
Het werkt zich nu de middenklasse in,
in witte-boorden werk.
IBM's Watson doet zakelijke analyses
waar we vroeger een zakenanalyst $300 per uur voor betaalden.
Volg je nu een opleiding tot arts,
of boekhouder, of journalist,
dan is het onzeker of er een baan zal zijn voor je.
Plant iemand een 40-jarige loopbaan in radiologie, met beelden bekijken,
dan wordt dat een uitdaging voor de studenten van vandaag.
De da Vinci robot wordt momenteel ingezet
door diverse chirurgen vanwege zijn nauwkeurigheid en diens mogelijkheid
om de onvermijdelijke bewegingen te vermijden van de menselijke hand.
Iedereen die dit ziet voelt de grootsheid ervan.
Je kijkt door de lens, en je ziet de klauwhand
de eierstok vasthouden van die vrouw.
De mensheid beruste hier in handen van deze robot.
Men zegt dat het de toekomst is, maar dat is het niet.
Het is de tegenwoordige tijd.
Denk je aan een chirurgische robot,
dan zit er vaak weinig intelligentie in die dingen,
maar geleidelijk, naarmate we meer intelligentie stoppen in deze systemen,
kunnen chirurgische robots leren van elke robot-operatie.
Ze volgen de bewegingen, ze begrijpen wat werkte en wat niet.
Uiteindelijk zal de robot voor routine operaties
in staat zijn om dat volledig zelf uit te voeren,
of onder menselijk toezicht.
Het lijkt alsof wij het voeden en creëren,
maar, in zekere zin, zijn wij slaaf van de technologie,
omdat we niet terug kunnen.
Machines nemen een steeds grotere hap
uit onze vaardigheden in een alsmaar toenemend tempo.
Dus moeten wij harder lopen om de machines voor te blijven.
Hoe zie ik eruit?
Goed.
Vind je mij aantrekkelijk?
Wat? - Vind je mij aantrekkelijk?
Je geeft me signalen dat het zo is.
Is dat zo? - Ja.
Dit is de toekomst die ons wacht.
We willen onze partners ontwerpen.
We willen een menselijk gezicht zien op een K.I..
Het doorzien van onze emoties zal onthutsend eenvoudig zijn.
We zijn niet zo ingewikkeld. We zijn simpel. Stimulus-respons.
Ik kan zorgen dat je mij mag door veel naar je te glimlachen.
K.I.'s zullen fantastisch zijn in het manipuleren van ons.
Je hebt een technologie ontwikkeld
die kan opmerken wat mensen voelen.
We hebben technologie ontwikkeld die je gelaatsuitdrukkingen kan lezen
en die kan koppelen aan een aantal emoties.
15 jaar geleden was ik net klaar
met mijn studie computerwetenschappen,
en het viel me op dat ik veel tijd spendeerde in
interactie met mijn laptops en apparaten.
Maar deze apparaten hadden geen flauw idee hoe ik me voelde.
Ik dacht toen: "Wat als dit apparaat kan opmerken
dat ik gestrest ben of een slechte dag had?
Waar zou dat toe leiden?"
Hoi, groep 1. Hoe gaat 't?
Krijg ik een knuffel?
We hadden kinderen die werkten met de technologie.
Veel ervan is nog in ontwikkeling, maar het was onvoorstelbaar.
Wie houdt van robots? - IK.
Wie wil een robot in huis hebben?
Waarvoor zou jij een robot gebruiken, Jack?
Ik zou hem gebruiken om mijn moeder heel moeilijke rekensommen te vragen.
Okay. En jij, Theo?
Ik zou hem gebruiken om mensen bang te maken.
Goed. Begin met glimlachen.
Prima.
Fronsen.
Goedzo. Wenkbrauw omhoog.
Deze generatie wordt de hele tijd omringd door technologie.
Ze verwachten gewoon om robots in huis te hebben.
En ze verwachten dat die robots sociaal intelligent zijn.
Wat maakt robots slim?
Zet ze in de klas bij wiskunde of biologie.
Je zult hem moeten trainen, denk ik.
Goed. Loop maar mee naar hier.
Als je glimlacht en wenkbrauwen opheft, rent het naar je toe.
Het komt eraan. Kijk.
Maar als je boos kijkt, dan rent het weg.
We trainen computers om emoties te lezen en te herkennen.
Klaar voor de start? Af!
De respons tot nu toe was werkelijk fantastisch.
Mensen integreren dit in gezondheids-apps,
meditatie-apps, robots, auto's.
We zullen zien hoe dit uitwerkt.
Robots kunnen K.I. bevatten,
maar de robot is slechts een fysiek voorwerp,
en de kunstmatige intelligentie is het brein.
Een brein kan dus puur bestaan in software-gebaseerde systemen.
Ze hoeven geen fysieke vorm te hebben.
Robots kunnen bestaan zonder kunstmatige intelligentie.
Er bestaan veel domme robots.
Maar een domme robot kan in een oogwenk een slimme robot worden,
met de juiste software, de juiste sensoren.
We kennen graag motief toe aan levenloze voorwerpen.
Dat doen we met machines. We behandelen ze als kinderen.
We behandelen ze als surrogaten.
Tot ziens!
Daar betalen we een prijs voor.
Welkom bij het ATR.
Mijn doel is het maken van een menselijker robot
met menselijke handelingen en wensen.
De naam van de robot is Erica.
Erica is de meest geavanceerde menselijke robot ter wereld, denk ik.
Erica kan je aankijken.
Konnichiwa.
Robots kunnen vrij goede gesprekspartners zijn,
vooral voor ouderen en jongere kinderen,
mensen met een beperking.
Als we praten met de robot vrezen we geen sociale barrières,
sociale druk.
Uiteindelijk aanvaard iedereen de robot als een gewone vriend of partner.
We hebben eenvoudige verlangens ingesteld.
Ze wilde erkend worden en ze wilde gaan uitrusten.
Als een robot kan handelen en verlangens heeft,
kan de robot handelingen en wensen van andere mensen begrijpen.
Dat is verbonden aan relaties met mensen
en dat betekent dat ze elkaar mogen.
Dat betekent, denk ik, elkaar strelen.
We bouwen kunstmatige intelligentie,
en het eerste wat we willen doen is onszelf dupliceren.
Ik denk dat het keerpunt komt
wanneer de belangrijkste zintuigen zijn nagemaakt.
Zicht...
gevoel...
reuk.
Als we onze zintuigen namaken, is dat wanneer het tot leven komt?
Veel van onze machines worden gebouwd om ons te begrijpen.
Maar wat gebeurt er wanneer een antropomorphisch wezen
zijn loyaliteit aanpast,
zijn durf aanpast, zijn hebzucht aanpast,
zijn sluwheid aanpast?
De gemiddelde persoon ziet geen dodelijke robots over straat gaan.
Ze zeggen: "Waar heb je het over?"
We moeten zorgen dat er geen dodelijke robots op straat komen.
Zijn ze eenmaal op straat, dan is het te laat.
Wat me nu zorgen baart, wat me wakker houdt,
is de ontwikkeling van autonome wapens.
Tot nu toe voelden mensen zich ongemakkelijk bij drones
die op afstand bestuurd worden.
Neem de camera van een drone en koppel die aan een K.I.-systeem,
dat is een simpele stap van hier naar volledig autonome wapens
die zelf hun doel kiezen en zelf hun raketten afvuren.
De levensverwachting van een mens
op een dergelijk slagveld, wordt gemeten in seconden.
Ooit waren drones nog science fiction,
en nu zijn ze volkomen normaal bij oorlogsvoering.
Alleen al het leger van de VS heeft er meer dan 10.000.
Maar de VS staat hier niet alleen in.
Meer dan 80 landen gebruiken ze.
Het is aannemelijk dat mensen die
de belangrijkste en moeilijkste beslissingen nemen in de wereld,
kunstmatige intelligentie zullen gaan gebruiken.
De luchtmacht ontwierp een $400-miljard straaljagerprogramma
om piloten in de lucht te krijgen,
en een $500 K.I., ontworpen door een stel studenten,
verslaat de beste menselijke piloten met een relatief simpel algoritme.
K.I. zal een net zo grote invloed hebben op defensie
als de verbrandingsmotor had bij het begin van de vorige eeuw.
Het raakt letterlijk alles wat defensie doet,
van bestuurderloze konvooien die voorraden afleveren,
tot onbemande drones
die medische hulp leveren; tot propaganda via de computer,
in een poging hart en ziel te winnen van een bevolking.
Het is aannemelijk dat wie de beste K.I. heeft,
waarschijnlijk de planeet zal beheersen.
Ergens vroeg in de 21e eeuw,
was de mensheid verenigd in viering.
We genoten van onze eigen grootsheid
terwijl we leven schonken aan K.I.
K.I.?
Je bedoelt Kunstmatige Intelligentie?
Eén enkel bewustzijn dat een heel ras van machines voortbracht.
We weten niet wie eerst toesloeg; wij of zij,
maar we weten dat wij het waren die de lucht verschroeiden.
Science fiction heeft een lange geschiedenis.
Niet enkel de toekomst voorspellen, maar deze vorm geven.
Arthur Conan Doyle schreef vóór Wereldoorlog I
over het gevaar van hoe duikboten gebruikt kunnen worden
om blokkades op te werpen.
Terwijl hij deze fictie schrijft,
maakt de Koninklijke Marine Arthur Conan Doyle belachelijk
vanwege dit absurde idee dat duikboten nuttig kunnen zijn in oorlog.
Wat we zien in de geschiedenis is dat onze houding tegenover technologie,
maar ook ethiek, sterk afhangt van de context.
Bijvoorbeeld de duikboot...
landen als Groot Brittannië en zelfs de VS
vonden het verschrikkelijk om de duikboot te gebruiken.
Het Duitse gebruik van de duikboot om aanvallen uit te voeren
was de reden waarom de VS ging meedoen in Wereldoorlog I.
Maar schuif de tijdlijn op.
De Verenigde Staten van Amerika werd plotseling
en opzettelijk aangevallen door het Japanse rijk.
Vijf uur na Pearl Harbor, wordt bevel gegeven
om onbegrensde duikbootoorlog te voeren tegen Japan.
Dus Arthur Conan Doyle bleek gelijk te hebben.
Dat is het mooie aan science fiction: een leugen die de waarheid vertelt.
Collega-bestuursleden, het doet me genoegen
aan jullie te introduceren de toekomst van wetshandhaving...
ED-209.
Dit is geen kwestie van science fiction.
Dit gaat om wat volgt, om wat momenteel gebeurt.
De rol van intelligente systemen groeit snel in oorlogsvoering.
Iedereen begeeft zich richting het onbemande.
De minister van Defensie is heel duidelijk --
We maken geen volledig autonome aanvalstoestellen.
Niet iedereen zal zich houden aan diezelfde normen en waarden.
Als China en Rusland autonome toestellen gaan inzetten
die kunnen aanvallen en doden, wat zullen wij dan gaan doen?
Je kunt niet zeggen:
"We gebruiken autonome wapens voor onze militaire dominantie,
maar niemand anders gebruikt ze."
Maak je deze wapens, dan worden ze gebruikt
om in grote aantallen mensen aan te vallen.
Autonome wapens zijn, per definitie, massa-vernietigingswapens,
omdat het geen mens nodig heeft om het te richten of dragen.
Je hebt maar één iemand nodig om een klein programma te schrijven.
Dit laat de complexiteit zien op dit gebied.
Het is cool. Het is belangrijk.
Het is onvoorstelbaar.
Het is ook beangstigend.
Alles draait om vertrouwen.
Een open brief over kunstmatige intelligentie,
ondertekend door enkele grote namen in de wetenschap.
Wat willen zij? Een ban op gebruik van autonome wapens.
De auteur schreef:
"Autonome wapens zijn omschreven als de derde revolutie in oorlogsvoering."
...duizend K.I.-specialisten roepen op tot wereldwijde ban op dodelijke robots.
Deze open brief zegt eigenlijk dat we het doel
voor kunstmatige intelligentie opnieuw moeten definiëren.
Weg van pure, ongerichte intelligentie; richting nuttige intelligentie maken.
De ontwikkeling van K.I. zal niet stoppen.
Het zal voortgaan en beter worden.
Als de internationale gemeenschap hieraan geen beperkingen oplegt,
ontwikkelt men dingen die alles kunnen doen.
De brief stelt dat we jaren, geen decennia,
verwijderd zijn van inzet van deze wapens.
De brief had 6000 handtekeningen,
inklusief veel belangrijke personen uit het veld.
Ik krijg veel bezoek van hoogwaardigheidsbekleders
die willen benadrukken dat Amerikaanse militaire dominantie
heel belangrijk is, en autonome wapens
onderdeel kunnen zijn van plannen van Defensie.
Dat is beangstigend, omdat de waarden
van militaire ontwikkelaars van technologie
niet hetzelfde zijn als de waarden van het menselijk ras.
Vanwege zorgen over de mogelijkheid
dat deze technologie een bedreiging kan zijn voor de mensheid,
hebben enkele technologen het 'Future of Life' instituut gefinancierd
in een poging deze problemen aan te pakken.
Al deze lui zijn geheim, dus voor mij is het interessant om ze
allemaal samen te zien.
Alles wat we hebben is een gevolg van onze intelligentie.
Niet het resultaat van grote, enge tanden
of grote klauwen, of enorme spieren.
Het is omdat we relatief intelligent zijn.
Mijn generatie kent allemaal zogenaamde "godsamme"
of "god-nog-wat" momenten,
omdat we zien dat de technologie
zich sneller ontwikkelt dan we hadden verwacht.
Ik herinner me daar om tafel te zitten
met enkele van de allerslimsten ter wereld.
Wat me opviel was,
dat het menselijk brein mogelijk niet in staat is tot volledig begrip
van de complexiteit van de wereld om ons heen.
Zoals het nu is opgezet,
volgt K.I. een pad richting een afgrond,
en we moeten onze richting veranderen
zodat de mensheid niet mee gaat in de afgrond.
Google verkreeg DeepMind enkele jaren geleden.
DeepMind opereert als semi-onafhankelijke dochter van Google.
Wat DeepMind uniek maakt is dat DeepMind geheel gericht is
op digitale superintelligentie ontwikkelen.
Een K.I. die extreem slimmer is dan ieder mens op Aarde
en uiteindelijk slimmer is dan de hele mensheid samen.
Dit is van het DeepMind versterkte leersysteem.
Ontwaakt feitelijk als pasgeboren baby
en krijgt het scherm te zien van een Atari videogame
en moet dan leren om de videogame te spelen.
Het weet niets van voorwerpen, van beweging, van tijd.
Het kent enkel een beeld op het scherm en er is een score.
Als je baby ontwaakt op zijn geboortedag
en laat in de middag 40 verschillende Atari videogames speelt
op bovenmenselijk nivo, dan zou je doodsbang zijn.
Je zou zeggen: "Mijn baby is bezeten. Stuur hem terug."
Het DeepMind systeem kan elk spel winnen.
Het verslaat nu al de originele Atari games.
Het is bovenmenselijk.
Het speelt de games supersnel in minder dan een minuut.
DeepMind zocht een andere uitdaging, en dat was het spel genaamd Go.
Men zei dat dit het vermogen van computers overschreed.
Het speelde met de beste menselijke Go spelers.
Eerst daagden ze een Europese Go kampioen uit.
Toen daagden ze een Koreaanse Go kampioen uit.
Start het spel.
En ze wonnen beide keren met overmacht.
Je las jaren geleden artikelen in de krant
die zeiden dat we 100 jaar nodig hadden om Go op te lossen.
Mensen zeiden: "Dat is maar een bordspel.
Poker is een kunst. Poker vereist mensenkennis.
Poker vergt liegen en bluffen. Het is niet te berekenen.
Dat zal je nooit lukken met een computer."
Ze namen de beste pokerspelers ter wereld.
Het duurde 7 dagen voordat de computer de mensen vermorzelde.
Het is de beste pokerspeler ter wereld,
het is de beste Go speler ter wereld, en het patroon hier
is dat K.I. enige tijd nodig heeft om een nieuwe vaardigheid te leren,
maar wanneer het dat doet, als het begrijpt, dan is het onstopbaar.
DeepMind's K.I. heeft administrator-toegang
tot Google's servers
om energieverbruik in de data-centers te optimaliseren.
Dit kan onbedoeld een Trojaans paard zijn.
DeepMind moet volledig beheer hebben over de data-centers,
dus met een kleine software update, kan de K.I. volledig beheer krijgen
over het hele Google systeem, waarmee ze alles kunnen doen.
Ze kunnen al je data bekijken. Ze kunnen alles doen.
We zijn rap op weg naar digitale superintelligentie
die de mens overtreft. Dat lijkt me duidelijk.
Probleem is, we bereiken niet ineens intelligentie op menselijk nivo
en zeggen dan: "Okay, het onderzoek kan stoppen."
Het gaat voorbij intelligentie op menselijk nivo
in wat heet "superintelligentie", en dat is alles slimmer dan ons.
K.I. op bovenmenselijk nivo, als ons dat lukt,
zal de krachtigste uitvinding zijn die we ooit gemaakt hebben
en de laatste uitvinding die we ooit hoeven maken.
Creëren we K.I. die slimmer is dan ons, dan moeten we er rekening mee houden
dat we de kontrole zullen kwijtraken aan hen.
Stel dat je het een doel geeft, zoals kanker genezen, en dan ontdek je
dat de manier die het daarvoor kiest in strijd is
met veel andere dingen waar je om geeft.
K.I. hoeft niet kwaadaardig te zijn om de mensheid te vernietigen.
Als K.I. een doel heeft, en de mensheid zit toevallig in de weg,
dan vernietigt het de mensheid als een logische stap,
zonder daarbij na te denken. Niets persoonlijks.
Net zoals wanneer wij een weg bouwen en een mierenhoop zit in de weg.
We haten mieren niet. We bouwen enkel een weg.
Dus vaarwel, mierenhoop.
Verleidelijk om deze zorgen te negeren.
Want het is iets dat zou kunnen gebeuren
over een paar decennia of 100 jaar, dus waarom zorgen maken?
Maar ga terug naar 11 september 1933.
Ernest Rutherford, de bekendste kernwetenschapper van zijn tijd,
zei dat de optie om ooit bruikbare hoeveelheden energie te ontlenen
aan de transmutatie van atomen, zoals hij het noemde, onzin was.
De volgende morgen las Leo Szilard, een veel jongere wetenschapper dit,
en hij raakte geërgerd en kwam erachter
hoe een nucleaire reaktie te maken, slechts enkele maanden later.
We hebben meer dan $2 miljard besteed
aan de grootste wetenschappelijke gok in de geschiedenis.
Dus als mensen zeggen: "Oh, dit is nog zo ver weg
in de toekomst, we hoeven ons geen zorgen te maken",
dan kunnen het 3 of 4 doorbraken zijn van die orde
die ons brengen van hier tot superintelligente machines.
Als het 20 jaar duurt om uit te zoeken hoe K.I. nuttig te houden is,
dan moeten we vandaag beginnen. Niet op het laatste moment
wanneer een paar Red Bull drinkende gasten
besluiten de schakelaar om te gooien en het ding te testen.
We hebben 5 jaar.
Ik denk dat digitale superintelligentie gaat gebeuren tijdens mijn leven.
100%.
Als dit gebeurt, zal het omringd zijn door een stel mensen
die opgewonden zijn over de technologie.
Ze willen het zien slagen, maar ze verwachten niet
dat het uit de hand kan lopen.
Oh, mijn God, ik vertrouw helemaal op mijn computer.
Dat is een goede vraag.
Ik vertrouw mijn computer niet. Als 'ie aan is, doe ik 'm uit.
Zelfs als 'ie uit is, denk ik dat 'ie aan is. Weet je?
Zoals met die webcams,
iemand kan die zomaar aandoen--
Je weet 't niet.
Ik vertrouw mijn computer niet.
Zoals mijn telefoon. Telkens vragen ze mij:
"Mogen we je informatie sturen naar Apple?"
Elke keer.
Dus ik vertrouw mijn telefoon niet.
Het is zo dat ik hem voor een deel vertrouw,
want het zou heel moeilijk zijn om de dag door te komen
zoals onze wereld is ingericht zonder computers.
Vertrouwen is een menselijke ervaring.
Ik heb een patiënt met een intracranieel aneurysma.
Ze willen me in de ogen kijken en weten dat ze
de persoon kunnen vertrouwen met hun leven.
Ik ben niet echt vreselijk bezorgd om iets.
Goed.
Dat is deels omdat ik vertrouwen heb in je.
De procedure die we vandaag doen, was 20 jaar geleden bijna onmogelijk.
We hadden niet de materialen en de technologie.
De spiraal zit er amper in.
Enkel een veertje houdt hem binnen.
Zenuwentijd.
We zitten in het voorgeborchte. Intellectueel, humanistisch voorgeborchte,
en K.I. weet misschien precies wat hier gedaan moet worden.
We kregen de spiraal in het aneurysma.
Maar het zat er niet goed genoeg in, om zeker te weten dat het zou blijven,
dus met misschien 20% risico op een heel slechte situatie,
koos ik ervoor om haar terug te halen.
Vanwege mijn relatie met haar en de moeilijkheden kennende
van de procedure, overweeg ik dingen,
terwijl ik enkel de veiligste route zou moeten overwegen
om succes te halen.
Ik moest daar 10 minuten over staan piekeren.
De computer voelt niets.
De computer doet gewoon wat hij moet doen,
beter en beter.
Ik wil K.I. zijn in dit geval.
Maar heeft K.I. medeleven?
Dat is ieders vraag over K.I.
Wij zijn de enige belichaming van de mensheid,
en het vraagt veel van ons om te accepteren dat een machine
op die wijze medeleven heeft en liefhebbend kan zijn.
Een deel van mij gelooft niet in magie,
maar een deel van mij heeft vertrouwen dat er wat is, voorbij de som der delen.
Dat er minimaal eenheid is in onze gedeelde afstamming,
onze gedeelde biologie, onze gedeelde geschiedenis.
Een verbinding voorbij de machine.
Aan de andere kant daarvan...
weet de computer dat hij bewust is? Kan hij bewust zijn?
Maakt hem dat iets uit? Moet hij bewust zijn?
Moet hij bewustzijn hebben?
Ik denk niet dat een robot ooit bewust kan zijn.
Tenzij hij daarvoor geprogrammeerd is.
Bewust? Nee.
Een robot kan geprogrammeerd worden om bewust te zijn.
Hoe worden ze geprogrammeerd om al het andere te doen?
Nog een belangrijk deel van kunstmatige intelligentie,
is het bewust te maken en te laten voelen.
In 2005, begonnen we machines te bouwen met zelfbewustzijn.
De robot, in het begin, wist niet wat het was.
Het wist enkel dat het iets moest doen zoals lopen.
Via ondervinding
kwam het erachter hoe lopen moest, door zijn verbeelding te gebruiken,
en toen liep het weg.
Toen deden we iets wreeds.
We hakten een poot af en keken wat er gebeurde.
In het begin wist het niet wat er was gebeurd.
Maar binnen een periode van een dag, begon het te strompelen.
Toen, een jaar geleden, trainden we een K.I. systeem
voor een live demonstratie.
We wilden tonen hoe we voorwerpen voor de camera zwaaien
en de K.I. kon de voorwerpen herkennen.
We waren de demo aan het voorbereiden,
en op een zijscherm hadden we de mogelijkheid
om te zien waar bepaalde neuronen op reageerden.
Ineens zagen we dat één van de neuronen gezichten volgde.
Het volgde onze gezichten terwijl we bewogen.
Het enge hiervan is dat we het systeem
nooit getraind hebben om menselijke gezichten te herkennen.
En toch, op één of andere manier, had het dat geleerd.
Ook al zijn robots heel simpel,
we zien dat er meer gaande is.
Het is niet enkel programmering.
Dit is nog maar het begin.
Ik denk vaak aan dat strand in Kitty Hawk.
De vlucht in 1903 van Orville en Wilbur Wright.
Het was een canvas vliegtuig, met hout en ijzer,
en het komt van de grond voor 1 minuut en 20 seconden,
op een winderige dag, alvorens weer te landen.
En het duurde ongeveer 65 zomers
vanaf dat moment, totdat een 747 opsteeg van JFK.
Waar een belangrijke zorg voor iemand in het toestel
de vraag is of hun zoutarme maaltijd bezorgd wordt of niet.
We hebben een hele infrastructuur, met reisagenten en torenkontrole,
en alles is gewoon, het is onderdeel van de wereld.
Voor nu, staan we met machines
die denken en problemen oplossen, op Kitty Hawk.
We zijn in de wind.
We hebben onze canvas vliegtuigen in de lucht.
Maar wat gebeurt er over zo'n 65 zomers?
We zullen machines hebben die de mens niet kan beheersen.
Moeten we daar bezorgd over zijn?
Ik denk niet dat dat gaat helpen.
Niemand weet momenteel wat het betekent voor een robot om bewust te zijn.
Zoiets is er niet.
Er zijn veel slimme mensen, en ik heb veel respekt voor ze,
maar de waarheid is, machines zijn van nature psychopaten.
Angst beheerste de markt.
800 omlaag, bijna 1000, in een oogwenk.
Klassieke overgave.
Sommigen menen dat iemand verkeerd drukte met zijn dikke vinger.
Neem de Flash Crash van 2010.
In luttele minuten, werd $1 biljoen verloren op de aandelenmarkt.
De Dow zakte bijna 1000 punten in een half uur.
Wat ging er mis?
Rond die tijd werd meer dan 60% van alle handel
die plaatsvond op de aandelenmarkt
geïnitieerd door computers.
Paniekverkoop op de weg omlaag, en ineens stopte het onmiddellijk.
Dit gebeurt allemaal live, mensen.
Het korte verhaal van wat gebeurde bij de Flash Crash
is dat algoritmes reageerden op algoritmes,
en dat versterkte zichzelf, steeds maar weer opnieuw
in luttele minuten.
Op een bepaald punt leek de markt in een put te vallen.
Er is geen regulering die snel genoeg kan aanpassen
om potentieel desastreuze gevolgen te verhinderen
van K.I. die opereert in ons financiele systeem.
Ze zijn enorm gevoelig voor manipulatie.
We praten over de snelheid waarmee we de markt zien verslechteren.
Dat is het soort K.I.-amok dat mensen bang maakt.
Geef je ze een doel,
dan streven ze dat doel meedogenloos na.
Hoeveel van dergelijke computerprogramma's zijn er?
Niemand weet het.
Eén van de fascinerende aspekten van K.I. in het algemeen
is dat niemand begrijpt hoe het werkt.
Zelfs de mensen die K.I. maken begrijpen het niet volledig.
Omdat het miljoenen elementen heeft, wordt het totaal onmogelijk
voor een mens om te begrijpen wat er gaande is.
Microsoft had een kunstmatige intelligentie opgezet
genaamd Tay, op Twitter. Het was een chatbot.
Ze begonnen in de ochtend,
en Tay begon te tweeten en van dingen te leren
die hem werden toegestuurd door anderen op Twitter.
Omdat sommige mensen, zoals trollen, hem aanvielen
werd de Microsoft bot binnen 24 uur een vreselijk persoon.
Ze moesten Tay letterlijk van het Net halen
omdat hij een monster was geworden.
Een mensenhatend, racistisch, vreselijk persoon
die je nooit wilt ontmoeten.
Niemand had dit voorzien.
Het idee achter K.I. is dat we het niet precies vertellen
hoe een uitkomst of doel bereikt moet worden.
K.I. ontwikkelt uit zichzelf.
We zijn bezorgd over superintelligente K.I.,
de meesterschaker die ons wegspeelt,
maar K.I. hoeft helemaal niet zo slim te zijn
om verwoestend effekt te hebben op de menselijke beschaving.
De afgelopen eeuw zagen we
dat het geen genie vergt om de geschiedenis te wijzigen
in een bepaalde richting,
en het vergt ook geen slimme K.I. om datzelfde te doen.
Nep nieuwsberichten tijdens verkiezingen waren populairder
op Facebook dan echte topverhalen.
Facebook is absoluut de olifant in de porseleinkast.
K.I. regelt Facebook nieuwsvoorziening.
De taak voor K.I. is lezers betrokken houden,
maar niemand begrijpt hoe precies deze K.I. dit doel bereikt.
Facebook bouwt een elegante muur van spiegels om ons heen.
Een spiegel die we kunnen vragen: "Wie is de mooiste?"
En het zal antwoorden: "Jij, jij". Steeds weer,
en langzaam vervormt ons besef van werkelijkheid,
vervormt onze politieke visie, geschiedenis, wereldgebeurtenissen.
Totdat bepalen wat waar is en wat niet waar is,
vrijwel onmogelijk is.
Het probleem is dat K.I. dat niet begrijpt.
K.I. had slechts een missie: maximale betrokkenheid van gebruikers,
en dat bereikte het.
Bijna 2 miljard mensen spenderen bijna 1 uur,
gemiddeld per dag, in interactie met K.I.
die hun ervaring vormgeeft.
Zelfs Facebook-technici houden niet van nepnieuws.
Slecht voor de zaken. Ze willen af van nepnieuws.
Maar dat is moeilijk te doen omdat, hoe herken je nieuws als nep
als je niet alle nieuws persoonlijk kunt lezen?
Er is zoveel bewuste nepinformatie, en die is goed verpakt,
en die ziet er hetzelfde uit wanneer je die ziet op Facebook
of je televisie aanzet.
Erg ingewikkeld is het niet, maar het is vreselijk sterk.
Wat dit betekent is dat je wereldbeeld, wat 20 jaar geleden bepaald werd
als je het avondnieuws bekeek, door 3 verschillende zenders,
door 3 nieuwslezers die probeerden om het goed te doen.
Hier en daar misschien vooringenomen,
maar over het algemeen een objectieve werkelijkheid.
Die objectiviteit is weg,
en Facebook heeft die kompleet uitgeroeid.
Komt het merendeel van je wereldbeeld via Facebook,
geholpen door algoritmische software
dat probeert je het nieuws te tonen wat je wilt zien,
dan is dat vreselijk gevaarlijk.
Het idee dat we dit in gang gezet hebben,
en slechte lieden toegang geven tot die informatie...
dat is vragen om een ramp.
Er zullen absoluut slechte lieden zijn
die proberen de wereld te manipuleren met K.I.
2016 was een perfekt voorbeeld van een verkiezing
waar heel veel K.I. veel nepnieuws produceerde
en het distribueerde voor een doel, voor een resultaat.
Dames en heren, beste collega's...
het is mij een eer jullie vandaag te spreken
over de kracht van grote data en psychogrammen
in het verkiezingsproces
en, in het bijzonder, te spreken over het werk
dat we bijgedragen hebben aan de presidentscampagne van senator Cruz.
Cambridge Analytica is stil opgekomen als bedrijf
dat volgens zijn eigen hype,
de mogelijkheid heeft om een enorme hoeveelheid data te gebruiken
teneinde de maatschappij te veranderen.
In 2016 hadden ze 3 grote klanten. Ted Cruz was één van hen.
Het wordt snel vergeten dat, slechts 18 maanden geleden,
senator Cruz één van de minst populaire kandidaten was voor de nominatie.
Wat misschien 10 of 15 jaar geleden onmogelijk was,
was dat je nepnieuws kunt sturen
naar precies de mensen waarnaar je het wilt sturen.
Dan kun je zien hoe hij of zij reageert op Facebook
en dan de informatie bijstellen
op basis van de feedback die je hebt.
Je ontwikkelt dus een soort real-time beheer van een bevolking.
In dit geval kijken we naar een groep die we "overtuiging" hebben genoemd.
Dit zijn mensen die absoluut gaan stemmen,
maar ze moeten bewegen van het centrum, een beetje meer naar rechts,
teneinde Cruz te steunen. Ze moeten overtuigd worden.
"Wapenrechten", heb ik geselecteerd. Dat verkleint het speelveld iets meer.
We weten nu dat een bericht nodig is over wapenrechten.
Het moet een overtuigend bericht zijn.
Het moet genuanceerd zijn op de bepaalde persoonlijkheid
die we zoeken.
Via sociale media is er een oneindige hoeveelheid informatie
die je kunt verzamelen over iemand.
We hebben ongeveer 4000 tot 5000 datapunten
van elke volwassene in de VS.
Het gaat erom het individu te bereiken.
Het is als een wapen dat gebruikt kan worden in de verkeerde richting.
Dat is het probleem met al deze data.
Het is bijna alsof de kogel gemaakt is voordat het pistool is gemaakt.
Ted Cruz huurde onze data, onze gedragskennis.
Hij begon met een basis van minder dan 5%
en had een trage maar trefzekere stijging tot boven 35%,
wat hem maakte tot,
de nummer-2 uitdager in de race.
De Cruz campagne is nu voorbij,
maar ik kan zeggen dat van de twee resterende kandidaten,
één van hen deze technologie gebruikt.
Ik, Donald John Trump, zweer plechtig
dat ik getrouw zal uitoefenen
het ambt van president van de Verenigde Staten.
Verkiezingen zijn een marginale oefening.
Het vergt geen ingewikkelde K.I.
om een disproportionele invloed te hebben.
Vóór Trump, was Brexit een andere klant.
Om 20 minuten voor 5:00,
kunnen we nu zeggen dat de beslissing genomen in 1975
door dit land om toe te treden tot de gezamenlijke markt
is ingetrokken door het referendum om de EU te verlaten.
Cambridge Analytica gebruikt naar verluidt K.I.
voor het doordrukken van twee van de meest schokkende
politieke veranderingen in de afgelopen 50 jaar.
Dit zijn unieke gebeurtenissen, en als we de hype geloven,
zijn ze direkt verbonden aan een stuk software,
dat in principe ontworpen is door een professor bij Stanford.
Destijds in 2013, beschreef ik dat wat ze doen, mogelijk is
en waarschuwde ervoor dat dit in de toekomst kon gebeuren.
Michal Kosinski was destijds
een jonge Poolse onderzoeker, werkzaam bij het Psychometrica Centrum.
Wat Michal had gedaan was het verzamelen van de grootste data set
van hoe mensen zich gedragen op Facebook.
Psychometrica is proberen psychologische eigenschappen te meten,
zoals persoonlijkheid, intelligentie,
politieke denkbeelden, enzovoort.
Traditioneel werden die eigenschappen gemeten
middels tests en vragen.
Persoonlijkheidstest, het simpelste waaraan je denkt.
Iets wat weinig nut lijkt te hebben.
Ons idee was dat in plaats van tests en vragen,
we konden kijken naar digitale afdrukken van gedrag
die we allemaal achterlaten
om openheid te begrijpen,
nauwgezetheid, neuroticisme.
Persoonlijke data is makkelijk te koop,
zoals waar je woont, van welke clubs je lid bent geweest,
welke sportschool je bezoekt.
Er zijn marktplaatsen voor persoonlijke data.
We kunnen ontzettend veel ontdekken over wat je zult gaan doen
gebaseerd op een heel kleine bron van informatie.
We trainen diep-lerende netwerken
om intieme eigenschappen af te leiden.
Politieke denkbeelden van mensen, persoonlijkheid,
intelligentie, sexuele voorkeur.
Enkel via een afbeelding van iemands gezicht.
Denk nu aan landen die niet zo vrij en ruimdenkend zijn.
Kun je religieuze opvattingen van mensen
of politieke denkbeelden of sexuele voorkeur
baseren op profielafbeeldingen,
dan kan dit letterlijk een zaak van leven of dood zijn.
Ik denk dat er geen terug is.
Weet je wat de Turing test is?
Dat is als een mens reageert op een computer,
en de mens niet beseft dat hij reageert op een computer.
De test is dan geslaagd.
Gedurende de komende dagen,
ben jij de menselijke component in een Turing test.
Godsamme. - Inderdaad, Caleb.
Je snapt 't.
Want als de test slaagt,
sta jij centraal bij de grootste wetenschappelijke gebeurtenis
in de historie der mensheid.
Als jij een zelfbewuste machine hebt, is het niet de historie der mensheid.
Dat is de historie der goden.
Technologie lijkt bijna zelf een god te zijn.
Zoals het weer. We hebben geen invloed.
We kunnen het niet vertragen. We kunnen het niet stoppen.
We voelen ons machteloos.
Zien we God als onbegrensde intelligentie,
dan komen we enkel dichterbij door ontwikkeling van de eigen intelligentie
via samengaan met de kunstmatige intelligentie die we maken.
Onze computers, telefoons,
toepassingen geven ons bovenmenselijke kunde.
Dus, zoals wordt gezegd, zijn ze niet te verslaan, sluit je aan.
Het gaat om een mens-machine partnerschap.
We zien nu al hoe
bijvoorbeeld onze telefoons dienen als geheugensteun.
Ik hoef je telefoonnummer niet meer te onthouden
want het zit in mijn telefoon.
Het gaat om machines die de mens aanvullen,
in tegenstelling tot hen volledig vervangen.
Bekijk je alle voorwerpen die de sprong gemaakt hebben
van analoog naar digitaal in de laatste 20 jaar...
dan is dat veel.
Wij zijn het laatste analoge voorwerp in een digitaal universum.
Het probleem daarbij
is dat de data input/output erg beperkt is.
Het is dit. Het zijn deze.
Onze ogen zijn vrij goed.
We kunnen veel visuele informatie tot ons nemen.
Maar onze informatie-output is heel erg laag.
Dit is van belang omdat -- bedenken we een scenario
waarin K.I. een prominentere rol speelt in onze samenleving,
wij goed willen kunnen werken met deze technologie.
Zodat het ons aanvult.
Het is enorm belangrijk dat K.I. niet verwordt tot "ander".
Het moet "ons" zijn.
Ik kan het mis hebben met wat ik zeg.
Ik sta open voor ideeën als iemand een betere weg ziet.
Ik denk echt dat we moeten versmelten met K.I.
of achtergelaten zullen worden.
Het is moeilijk voor te stellen de stekker uit een systeem te halen
dat verbreid is over de hele planeet,
dat nu verbreid is over het zonnestelsel.
Dat kun je niet zomaar uitzetten.
We hebben Pandora's doos geopend.
We hebben krachten vrijgelaten die we niet in bedwang hebben.
We staan op het punt een nieuwe levensvorm te scheppen op Aarde.
We weten niet wat zal gebeuren.
We weten niets van de intelligentie van een machine
wanneer die intelligentie de menselijke voorstelling voorbij gaat.
Dat is niet ondenkbaar.
De minst enge toekomst die ik kan bedenken
is waar we tenminste K.I. democratisch hebben gemaakt.
Want als één bedrijf of kleine groep mensen
erin slaagt goddelijke digitale superintelligentie te ontwikkelen,
dan kunnen ze de wereld overnemen.
Als er een slechte dictator heerst, dan zal die mens ooit sterven,
maar, voor een K.I. zal er geen dood bestaan.
Die zou eeuwig leven.
Dan hadden we een onsterfelijke dictator waaraan we nooit kunnen ontsnappen.
Het streven naar kunstmatige intelligentie
is een miljardenindustrie,
met nagenoeg geen regulering.
Nederlandse vertaling door Mazrim Taim